Ilya Sutskever’s Safe Superintelligence (SSI) raises $1 billion at $5 billion valuation
由前 OpenAI 首席科学家 Ilya Sutskever 联合创办的初创公司 Safe Superintelligence (SSI) 在成立仅三个月后就获得了 10 亿美元的融资。该公司旨在开发超越人类智能的“安全”通用人工智能 (AGI) 系统，尽管没有产品且只有 10 名员工，但估值已达到约 50 亿美元。此轮融资由 Andreessen Horowitz、Sequoia Capital、DST Global 和 SV Angel 等顶级风险投资公司领投，表明人工智能企业仍在吸引大量资金。它打破了围绕人工智能领域投资的怀疑。当生成式人工智能成为“主流”时，Ilya Sutskever
DAI#55 – GPT Next, Colossus, and the all-seeing AI eye
欢迎来到我们每周的手工 AI 新闻汇总。本周，OpenAI 用“GPT Next”来戏弄我们。埃隆·马斯克打开了 Colossus 的开关。不管你喜欢与否，人工智能都在注视着你。让我们深入研究一下。GPT 在日本的 KDDI SUMMIT 2024 上，OpenAI 日本首席执行官长崎忠雄暗示了该公司的下一代 AI 模型。暗示、耳语和模棱两可的演示幻灯片似乎表明“GPT Next”将比 GPT-4 强大 100 倍。这是一个愿望，一个正在进行的真实项目，还是即将发布的产品？谁知道呢？在某个时候，OpenAI 炒作帖子 DAI#55 – GPT Next、Colossus 和全视 AI 之眼首先
First international treaty signed to align AI with human rights, democracy, and law
欧洲委员会人工智能框架公约于周四在立陶宛维尔纽斯达成一致，标志着人工智能发展与人权、民主和法治相一致迈出了重要一步。美国、欧盟、英国和以色列是最初的签署国。其他签署国包括安道尔、格鲁吉亚、冰岛、挪威、摩尔多瓦共和国和圣马力诺。预计未来几周和几个月将有更多国家加入。该公约历时两年制定，得到了 50 多个国家的参与，旨在为人工智能治理创建一个统一的全球法律约束框架。《签署首份将人工智能与人权、民主和法律相一致的国际条约》一文首次出现在 DailyAI 上。
AIAI Boston 2024: Three co-located summits exploring cutting-edge AI
此次会议在马萨诸塞州波士顿举行，通过三场同地峰会，为深入研究人工智能技术前沿提供了独特的机会。该活动将于 2024 年 10 月 16 日至 18 日在波士顿海港区威斯汀酒店举行，届时将举办三场同地峰会，每场峰会都侧重于 AI 的不同方面：首席 AI 官峰会（2024 年 10 月 16 日）：为 C 级高管提供执行 AI 战略的全面路线图。生成 AI 峰会（2024 年 10 月 17 日和 18 日）：解决基础设施、微调、可扩展性、多模态 AI 以及 LLM 可观察性和安全性方法方面的关键挑战。计算机视觉峰会（2024 年 10 月 17 日）：部署文章 AIAI Boston 2024：
OpenAI Japan CEO talks about “GPT Next” with a reported 100x more power than GPT-4
在日本举行的 KDDI SUMMIT 2024 上，OpenAI 日本首席执行官长崎忠雄暗示了该公司的下一代 AI 模型，名为“GPT Next”。长崎表示，GPT Next 将是 AI 的一次巨大飞跃，并表示“根据过去的表现，它将比其前辈进化近 100 倍”。这是一个引人注目的说法，但几乎不可能说出长崎到底在量化什么或他的参考点。他的演示幻灯片可能只是表明未来的模型将比前几代模型使用多 100 倍的处理能力。换句话说，它可能更多地说明了“可能性”，而不是字面意思。OpenAI 日本首席执行官谈到“GPT Next”，据报道其功能比 GPT-4 多 100 倍，这篇文章首先出现在 DailyA
Clearview AI fined $33m for facial recognition image scraping
Clearview AI 为执法部门和其他政府机构提供面部识别服务，但荷兰数据监管机构表示，其包含 300 亿张图像的数据库是非法建立的。荷兰数据保护局 (DPA) 表示，Clearview 从互联网上抓取了人们的图像并在未经他们同意的情况下使用它们。欧洲 GDPR 规则严格保护欧盟公民的隐私，DPA 因这一涉嫌违规行为对 Clearview 处以 3300 多万美元的罚款。DPA 表示，“Clearview 建立了一个非法数据库，其中包含数十亿张面部照片，包括荷兰人的照片。荷兰 DPA 警告称，使用这篇文章 Clearview AI 因面部识别图像抓取被罚款 3300 万美元首先出现在 Da
Elon Musk reveals xAI’s “Colossus,” probably the most powerful supercomputer in the world
埃隆·马斯克的初创公司 xAI 公布了其最新成果：一台名为 Colossus 的超级计算机。这个庞大的 AI 训练系统目前拥有 100,000 个 Nvidia Hopper H100 处理器。Colossus 位于田纳西州孟菲斯，将扩充 50,000 个 Nvidia 新的、更先进的 H200 系列芯片，其性能大约是 H100 的两倍。如果 Colossus 还不是地球上最强大的计算机，这几乎肯定会使它成为地球上最强大的计算机。作为背景，Meta 宣布计划在 2024 年底前积累 350,000 个 H100 GPU，而 OpenAI 被认为只会使用大约 25,000 个 GPU 用于 GP
Coinbase CEO reveals first AI-to-AI crypto transaction
流行的加密货币交易平台 Coinbase 的首席执行官 Brian Armstrong 表示，他的公司见证了第一笔 AI 到 AI 的加密交易。人工智能作为跨平台代理的想法正在迅速成为现实，但商业交易一直具有挑战性。人工智能代理无法获得银行账户，因此无法支付服务费用或聘请自由职业者帮助其完成任务。然而，阿姆斯特朗表示，人工智能代理现在可以“使用 Base 上的 USDC 与人类、商家或其他人工智能进行交易”。Base 上的 USDC 是一种稳定币，具体来说是美元币 (USDC) 的一个版本Coinbase 首席执行官透露首笔人工智能对人工智能加密交易首先出现在 DailyAI 上。
AI cameras to catch more UK drivers using phones and not wearing seatbelts
从 9 月 3 日开始，英国大曼彻斯特将成为最新部署 AI 摄像头的地区，该摄像头可自动检测使用手机或不系安全带的司机。由澳大利亚公司 Acusensus 开发的“抬头”摄像头使用机器学习算法来分析过往车辆的图像。目标是以 AI 自动化无法实现的规模和精度识别驾驶违规行为。大曼彻斯特交通局 (TfGM) 相信该项目将有助于减少导致车祸的危险驾驶行为。“在大曼彻斯特，我们知道分心和不系安全带是导致车祸的关键因素，这篇文章 AI 摄像头捕捉到更多使用手机和不系安全带的英国司机首先出现在 DailyAI 上。
AI-powered ‘synthetic cancer’ worm represents a new frontier in cyber threats
研究人员发现了一种新型计算机病毒，它利用大型语言模型 (LLM) 的力量来逃避检测并自我传播。这种被其创造者称为“合成癌症”的病毒，代表着恶意软件的新时代。苏黎世联邦理工学院的 David Zollikofer 和俄亥俄州立大学的 Benjamin Zimmerman 开发了这种概念验证恶意软件，作为他们提交给瑞士人工智能安全奖的一部分。他们的发明在一篇题为“合成癌症——用 LLM 增强蠕虫”的预印本论文中进行了详细介绍，展示了利用人工智能制造新的、高度复杂的网络攻击的潜力。这是一篇由人工智能驱动的“合成癌症”蠕虫代表了网络威胁的新前沿的文章，最早出现在 DailyAI 上。
Hacktivists steal Disney data, citing AI-related data acquisition as a motive
华特迪士尼公司已成为黑客活动分子出于人工智能相关原因造成的大规模数据泄露的受害者。据《华尔街日报》首次报道，一个名为 NullBulge 的黑客组织涉嫌从迪士尼内部 Slack 频道获取并泄露了超过 1TB 的数据。据自称是“黑客行动主义者”的黑客称，泄露的数据包括巴黎迪士尼乐园的流量和收入数据以及未发布的项目和图像等敏感数据。NullBulge 声称其行动的动机是“保护艺术家的权利并确保他们的作品获得公平的报酬”，其网站称，“我们认为人工智能生成的艺术品黑客行动主义者窃取迪士尼数据，称获取与人工智能相关的数据是动机”首先出现在 DailyAI 上。
Trump allies preparing “Make America First in AI” framework
如果唐纳德·特朗普成功当选美国总统，这可能会对该国的人工智能发展政策产生重大影响。特朗普的一群盟友正在准备一个框架，特朗普可以将其作为行政命令发布，这将使拜登政府的人工智能法规被撤销。《华盛顿邮报》最初报道的“让美国在人工智能领域领先”政策文件呼吁“行业主导”机构监控人工智能模型，并防止它们落入该国对手的手中。人工智能政策旨在启动一系列“曼哈顿项目”，以促进美国在人工智能领域的国防开支。这篇文章特朗普盟友准备“让美国在人工智能领域领先”框架首次出现在 DailyAI 上。
Brain imaging study uses AI to reveal neural patterns for sex and gender in children
宾夕法尼亚大学和费恩斯坦医学研究所的研究人员发现了儿童大脑中性别和性别特征的新见解。这项研究发表在《科学进展》杂志上，引发了围绕生物性别和性别认同之间关系的辩论，以及我们如何以及是否可以客观地研究这一问题。性别和性别特征有时可以互换使用，但它们已经将出生时指定的生物学性别与变化更大的社会文化性别概念区分开来。用这项研究的话来说，“在这里，我们使用‘性别’一词来表示个人的身体解剖学、生理学、遗传学的特征，脑成像研究使用人工智能揭示儿童性别和性别特征的神经模式，首先出现在 DailyAI 上。
Tech companies like Microsoft, NVIDIA, and Apple trade trust for data and talent
在疯狂争夺人工智能行业的主导地位的过程中，科技巨头们正在突破道德界限，测试公众信任的极限。最近的一系列披露敲响了数据隐私、公平竞争以及权力和人才集中的警钟。首先，Proof News 和 WIRED 的一项调查发现，Apple、NVIDIA、Anthropic 和 Salesforce 一直在使用包含超过 170,000 个 YouTube 视频字幕的数据集来训练他们的 AI 模型。这个被称为“YouTube 字幕”的数据集是在未经内容创建者同意的情况下编制的，可能违反了 YouTube 的服务条款。这种数据挖掘的规模The post Tech company like Microsoft,
YouTube Music, Deezer test AI playlists and search functionality
YouTube Music 和 Deezer 正在进行 Beta 测试并推出新的 AI 功能，以便更轻松地在其音乐流媒体平台上查找音乐。音乐流媒体服务依靠您的搜索活动、反馈和收听历史记录来更好地了解他们应该在您的播放列表中推荐哪些音乐。但是，如果您想听一首歌，但不记得标题或艺术家怎么办？YouTube Music 的“声音搜索”或“哼唱搜索”功能可让用户哼唱、唱歌或播放一段音乐来找到他们想要的歌曲。一些 Android 和 iOS 用户的帖子 YouTube Music、Deezer 测试 AI 播放列表和搜索功能首先出现在 DailyAI 上。
Tech company cancels AI workers’ rights after pushback
人力资源软件公司 Lattice 由 Sam Altman 的兄弟 Jack Altman 创立，是第一家向数字工作者提供正式员工记录的公司，但仅在 3 天后就取消了这一举措。Lattice 首席执行官 Sarah Franklin 在 LinkedIn 上宣布，Lattice“创造了历史，成为第一家在负责任地雇用 AI‘数字工作者’方面处于领先地位的公司，通过创建数字员工记录来管理他们的透明度和问责制。” Franklin 表示，“数字工作者”将得到安全入职、培训和分配目标、绩效指标、适当的系统访问权限，甚至还有一位负责任的经理。”如果您认为这种将 AI 拟人化的举动是科技公司在遭到抵制后取
AI model performance: Is it reasoning or simply reciting?
当 ChatGPT 为您的提示提供正确答案时，它是通过请求进行推理还是仅仅记住训练数据中的答案？麻省理工学院计算机科学与人工智能实验室 (CSAIL) 的研究人员设计了一系列测试，以查看 AI 模型是“思考”还是只是记忆力好。当您提示 AI 模型解决“27+62 等于多少？”之类的数学问题时，它会很快给出正确答案：89。我们如何判断它是理解底层算法还是只是在训练数据中看到了问题？在他们的论文中，研究人员测试了 GPT-4，文章 AI 模型性能：是推理还是简单地背诵？首次出现在 DailyAI 上。
NATO releases a revised AI strategy to combat threats
北约发布了修订后的人工智能战略，以促进人工智能在国防应用中的负责任使用，并打击来自人工智能对手的威胁。北约的最新战略表明，人工智能在国防领域的应用正迅速从新颖性发展到广泛采用。北约最初的人工智能战略是在 2021 年制定的，其中批准了人工智能在国防领域的六项负责任使用原则 (PRU)，即：责任和问责制、可解释性和可追溯性、可靠性、可治理性和偏见缓解。2021 年仅仅是 3 年前，但它比我们今天拥有的商业化技术落后了几代。北约表示，随着新一轮北约发布修订后的人工智能战略以应对威胁，该文章首次出现在 DailyAI 上。
